AutoRelAnnotator: Calibrated Model Cascades for Cost-Efficient Relevance Evaluation in Sponsored Search
校准模型级联：低成本的赞助搜索相关性离线标注
🧭 离线标注 · 模型级联 · 按类校准 ★ 深度解读
Walmart Global Tech
将精度与成本解耦：领域微调提供近20点精度提升，校准级联再节约一半计算量
📌 工作参考价值（4 点）
- 自动标注管线设计：先部署小模型 (Cross-Encoder) 处理绝大多数简单样本，仅对低置信度实例级联到更大 LLM，可在保持精度的同时节省约 50% 推理成本，适合大规模 query-item 相关性标注。
- 按类校准优于全局校准：对每个预测类别分别拟合 isotonic 回归，能够修正类别特异的过/欠置信，提升级联路由的准确性 (+0.6pp)；在分类器置信度用于触发不同策略时，推荐采用 per-class 校准。
- 模型规模与数据预算的联合规划：小模型（如 DeBERTa）学习曲线饱和早，大模型（8B）能持续从更多数据中获益；可根据标注预算将难例递交给大模型，最大化样本效率。
- 输入模板的严格一致性：微调后的分类头对 prompt 格式极度敏感，细微变化会导致精度下降 10–15 个点；生产环境必须固化模板并与训练时完全对齐。